Para começar nossa análise vamos identificar as variáveis para entender o que elas podem significar no contexto da composição de um vinho.
str(wine_dset)
## 'data.frame': 6497 obs. of 14 variables:
## $ id_vinho : int 1 2 3 4 5 6 7 8 9 10 ...
## $ fixedacidity : num 6.6 6.7 10.6 5.4 6.7 6.8 6.6 7.2 5.1 6.2 ...
## $ volatileacidity : num 0.24 0.34 0.31 0.18 0.3 0.5 0.61 0.66 0.26 0.22 ...
## $ citricacid : num 0.35 0.43 0.49 0.24 0.44 0.11 0 0.33 0.33 0.2 ...
## $ residualsugar : num 7.7 1.6 2.2 4.8 18.8 ...
## $ chlorides : num 0.031 0.041 0.063 0.041 0.057 0.075 0.069 0.068 0.027 0.035 ...
## $ freesulfurdioxide : num 36 29 18 30 65 16 4 34 46 58 ...
## $ totalsulfurdioxide: num 135 114 40 113 224 49 8 102 113 184 ...
## $ density : num 0.994 0.99 0.998 0.994 1 ...
## $ pH : num 3.19 3.23 3.14 3.42 3.11 3.36 3.33 3.27 3.35 3.11 ...
## $ sulphates : num 0.37 0.44 0.51 0.4 0.53 0.79 0.37 0.78 0.43 0.53 ...
## $ alcohol : num 10.5 12.6 9.8 9.4 9.1 9.5 10.4 12.8 11.4 9 ...
## $ quality : int 5 6 6 6 5 5 4 6 7 6 ...
## $ Vinho : Factor w/ 2 levels "RED","WHITE": 2 2 1 2 2 1 1 1 2 2 ...
PH: vinhos são naturalmente ácidos, com a maioria indo de 2,8 a 4,0. Os níveis de pH estão intrinsecamente ligados ao estilo e qualidade dos vinhos. O pH relativamente baixo, na faixa de 3,1 a 3,4, parece ser pré-requisito para a produção de vinhos de alta qualidade com solidez.
Acidez Volátil: é um componente do vinho que tipicamente cresce conforme o vinho envelhece e, em quando atinge um nível elevado, é responsável pelo aroma de vinagre. É o resultado da falta de cuidados durante a vinificação.
Acidez Fixa: acidez é uma das características básica que tem uma contribuição relevante para o sabor, frescura, equilíbrio e capacidade de conservação dos vinhos. Acidez Fixa é a diferença entre acidez total do vinho e sua acidez volátil.
Ácido Cítrico: nos vinhos o ácido cítrico tem pouca ou nenhuma presença. Nos vinhos tintos desaparece devido à ação de bactérias láticas (fermentação malolática). Sensorialmente é fresco, porém em alguns casos pode apresentar um leve final amargo.
Dióxido de Enxofre Livre: as atividade antioxidásica do dióxido de enxofre bloqueia a ação de enzimas oxidantes, principalmente no início do processo de elaboração, evitando reações de oxidação e o consequentemente o escurecimento do vinho. O excesso de dióxido de enxofre livre tem um grande impacto no sabor, deixando-o mais amargo e com uma sensação mais metálica.
Dióxido de Enxofre Total: quanto mais dióxido de enxofre total estiver disponível, mais estável será o dióxido de enxofre livre.
Açúcar Residual: no processo de fermentação do vinho a levedura vai transformando o açúcar da uva em álcool. Por isso que, em teoria, quanto mais açúcar houver na uva, mais álcool haverá no vinho. Porem nem todo o açúcar é transformado em alcool, e o açúcar que resta no final do processo de fermentação é conhecido como açúcar residual.
Cloretos: os vinhos possuem em sua composição diversos produtos enológicos, sais e ácidos. Estes sais influenciam diretamente em sua qualidade.
Densidade: define a leveza do vinhos, e pode ser caracterizado pelo tipo da uva ou por técnicas usadas na vinificação que podem ser determinantes na concentração da bebida.
Álcool: essa é uma característica que causa controversa entre sommeliers. Embora há vinhos premiados com uma porcentagem maior de álcool, outros defendem que para o vinho ser de qualidade tem que ser inferior a 14% de álcool.
Sulfatos: os sulfatos também tem um papel de conservantes nos vinhos e ajudam na extração dos compostos fenólicos do vinho, responsáveis pela concentração de cor e taninos.
Qualidade: uma infidade de aspectos influenciam na qualidade dos vinhos, desde aspectos como o nivel de oxidação, até a contaminação da rolha. No dataset a qualidade máxima é uma escala inteira entre 0 (menor qualidade) e 10 (maior qualidade).
Vinho: há inúmeros tipos de vinho (ex: tintos, brancos, roses, doces e espumantes), porém nossos dados contém apenas dois tipos: brancos e tintos.
Links acessados para fundamentação teórica:
wine_dset %>%
group_by(Vinho) %>%
count()
## # A tibble: 2 x 2
## # Groups: Vinho [2]
## Vinho n
## <fct> <int>
## 1 RED 1599
## 2 WHITE 4898
A quantidade de dados para os vinhos brancos é aproximadamente 3 vezes maior que o vinho tinto.
Antes de qualquer análise, vamos conferir se nosso dataset não apresenta valores faltantes:
wine_white_dset <-
wine_dset %>%
filter(Vinho == 'WHITE')
wine_red_dset <-
wine_dset %>%
filter(Vinho == 'RED')
sum(is.na(wine_white_dset))
## [1] 0
sum(is.na(wine_red_dset))
## [1] 0
Como as somas dos valores NAs, tanto para o vinho tinto quanto para o branco, podemos afirmar que não há dados faltantes. Dessa forma podemos continuar sem precisar substituir ou remover os valores iguais a NA.
O vinho branco e tinto apresentam características diferentes que definem se ele é bom ou ruim. Vamos dar uma olhada nos dados pra cada característica:
Vinho Branco
summary(wine_white_dset)
## id_vinho fixedacidity volatileacidity citricacid
## Min. : 1 Min. : 3.800 Min. :0.0800 Min. :0.0000
## 1st Qu.:1650 1st Qu.: 6.300 1st Qu.:0.2100 1st Qu.:0.2700
## Median :3310 Median : 6.800 Median :0.2600 Median :0.3200
## Mean :3284 Mean : 6.855 Mean :0.2782 Mean :0.3342
## 3rd Qu.:4932 3rd Qu.: 7.300 3rd Qu.:0.3200 3rd Qu.:0.3900
## Max. :6497 Max. :14.200 Max. :1.1000 Max. :1.6600
## residualsugar chlorides freesulfurdioxide totalsulfurdioxide
## Min. : 0.600 Min. :0.00900 Min. : 2.00 Min. : 9.0
## 1st Qu.: 1.700 1st Qu.:0.03600 1st Qu.: 23.00 1st Qu.:108.0
## Median : 5.200 Median :0.04300 Median : 34.00 Median :134.0
## Mean : 6.387 Mean :0.04577 Mean : 35.31 Mean :138.4
## 3rd Qu.: 9.900 3rd Qu.:0.05000 3rd Qu.: 46.00 3rd Qu.:167.0
## Max. :45.800 Max. :0.34600 Max. :289.00 Max. :440.0
## density pH sulphates alcohol
## Min. :0.9871 Min. :2.720 Min. :0.2200 Min. : 8.00
## 1st Qu.:0.9917 1st Qu.:3.090 1st Qu.:0.4100 1st Qu.: 9.50
## Median :0.9937 Median :3.180 Median :0.4700 Median :10.40
## Mean :0.9940 Mean :3.188 Mean :0.4898 Mean :10.51
## 3rd Qu.:0.9961 3rd Qu.:3.280 3rd Qu.:0.5500 3rd Qu.:11.40
## Max. :1.0140 Max. :3.820 Max. :1.0800 Max. :14.20
## quality Vinho
## Min. :3.000 RED : 0
## 1st Qu.:5.000 WHITE:4898
## Median :6.000
## Mean :5.878
## 3rd Qu.:6.000
## Max. :9.000
Vinho Tinto
summary(wine_red_dset)
## id_vinho fixedacidity volatileacidity citricacid
## Min. : 3 Min. : 4.60 Min. :0.1200 Min. :0.000
## 1st Qu.:1523 1st Qu.: 7.10 1st Qu.:0.3900 1st Qu.:0.090
## Median :3103 Median : 7.90 Median :0.5200 Median :0.260
## Mean :3141 Mean : 8.32 Mean :0.5278 Mean :0.271
## 3rd Qu.:4690 3rd Qu.: 9.20 3rd Qu.:0.6400 3rd Qu.:0.420
## Max. :6490 Max. :15.90 Max. :1.5800 Max. :1.000
## residualsugar chlorides freesulfurdioxide totalsulfurdioxide
## Min. : 0.900 Min. :0.01200 Min. : 1.00 Min. : 6.00
## 1st Qu.: 1.900 1st Qu.:0.07000 1st Qu.: 7.00 1st Qu.: 22.00
## Median : 2.200 Median :0.07900 Median :14.00 Median : 38.00
## Mean : 2.539 Mean :0.08747 Mean :15.87 Mean : 46.47
## 3rd Qu.: 2.600 3rd Qu.:0.09000 3rd Qu.:21.00 3rd Qu.: 62.00
## Max. :15.500 Max. :0.61100 Max. :72.00 Max. :289.00
## density pH sulphates alcohol
## Min. :0.9901 Min. :2.740 Min. :0.3300 Min. : 0.9567
## 1st Qu.:0.9956 1st Qu.:3.210 1st Qu.:0.5500 1st Qu.: 9.5000
## Median :0.9968 Median :3.310 Median :0.6200 Median :10.2000
## Mean :0.9967 Mean :3.311 Mean :0.6581 Mean :10.4001
## 3rd Qu.:0.9978 3rd Qu.:3.400 3rd Qu.:0.7300 3rd Qu.:11.1000
## Max. :1.0037 Max. :4.010 Max. :2.0000 Max. :14.9000
## quality Vinho
## Min. :3.000 RED :1599
## 1st Qu.:5.000 WHITE: 0
## Median :6.000
## Mean :5.636
## 3rd Qu.:6.000
## Max. :8.000
Trabalharemos com os valores das medianas, ao invés das médias, porque as medianas não sofrem o impacto que as médias sofreria devido a presença de outliers. Explorando esses dados é possível ter um overview de como essas característica estão organizadas pelo dataset e identificar o que difere um vinho tinto do branco.
# Vinho Tinto
median_red_dset <- sapply(select(wine_red_dset, -c(Vinho, id_vinho, quality)), median)
median_red_dset <- as.data.frame(median_red_dset)
median_red_dset <- rownames_to_column(median_red_dset) %>%
rename(Mediana = median_red_dset, Caracteristica = rowname)
# Vinho Branco
median_white_dset <- sapply(select(wine_white_dset, -c(Vinho, id_vinho, quality)),median)
median_white_dset <- as.data.frame(median_white_dset)
median_white_dset <- rownames_to_column(median_white_dset) %>%
rename(Mediana = median_white_dset, Caracteristica = rowname)
# Diferenca
mediana_diferenca <- data.frame(
Caracteristica = median_white_dset$Caracteristica,
Diferenca.Mediana = abs(median_white_dset$Mediana - median_red_dset$Mediana)
)
top_n(arrange(mediana_diferenca, desc(mediana_diferenca$Diferenca.Mediana)), dim(arrange(mediana_diferenca, desc(mediana_diferenca$Diferenca.Mediana)))[1])
## Caracteristica Diferenca.Mediana
## 1 totalsulfurdioxide 96.00000
## 2 freesulfurdioxide 20.00000
## 3 residualsugar 3.00000
## 4 fixedacidity 1.10000
## 5 volatileacidity 0.26000
## 6 alcohol 0.20000
## 7 sulphates 0.15000
## 8 pH 0.13000
## 9 citricacid 0.06000
## 10 chlorides 0.03600
## 11 density 0.00301
Através das medianas, três valores chamaram atenção entre os tipos de vinho: totalsulfurdioxide, freesulfurdioxide e residualsugar.
Vamos utilizar a análise gráfica, com as três características acima, para reforçar a visualização dos valores já obtidos na função summary (a visualização gráfica por histogramas nos auxilia também na detecção de outliers):
plot_ly(wine_dset, y = ~totalsulfurdioxide,type = "box",
color = ~Vinho, colors = c("red", "khaki")) %>%
layout(title = "Dióxido de Enxofre Total")
plot_ly(wine_dset, y = ~freesulfurdioxide,type = "box",
color = ~Vinho, colors = c("red", "khaki")) %>%
layout(title = "Dióxido de Enxofre Livre")
plot_ly(wine_dset, y = ~residualsugar,type = "box",
color = ~Vinho, colors = c("red", "khaki")) %>%
layout(title = "Açúcar Residual")
plot_ly(wine_dset, y = ~fixedacidity,type = "box",
color = ~Vinho, colors = c("red", "khaki")) %>%
layout(title = "Acidez Fixa")
plot_ly(wine_dset, y = ~pH,type = "box",
color = ~Vinho, colors = c("red", "khaki")) %>%
layout(title = "pH")
Após a análise gráfica ficou ainda mais clara a diferença entre cada tipo de vinho (tinto ou branco), portanto, vamos selecionar somente um tipo de vinho para a criação de um modelo preditivo coerente. Além disso, como o número de dados pros vinhos brancos é bem maior do que para os tintos (aprox. 3 vezes maior), utilizaremos os dados que oferecem mais amostras pra treinar e validar nosso modelo.
Antes de prosseguirmos para a parte de remoção de outliers e a regressão linear, a variável o freesulfurdioxide chamou a atenção desde o tópico “Descrição dos Dados” por sua descrição dar indícios que este valor está relacionado ao sabor e, consequentemente, a qualidade do vinho. Testando esta relação:
wine_dset %>%
group_by(quality, freesulfurdioxide) %>%
ggplot(aes(factor(quality), freesulfurdioxide, color = quality)) +
geom_boxplot() +
theme(legend.position = "none") +
facet_wrap(~Vinho ) +
labs(y = "Dióxido de enxofre", x = "Qualidade")
Embora os vinhos de maior qualidade apresentam um baixo valor de dióxido de enxofre livre, a relação dos outros valores com qualidade se mostrou insuficiente para determinar se o vinho é bom ou não, ou seja, outras características correlacionadas com o dióxido de enxofre livre devem explicar melhor a qualidade.
wine_white_dset <- wine_white_dset %>%
select(-c(Vinho, id_vinho))
whitedset_cor <- cor(wine_white_dset)
corrplot::corrplot(whitedset_cor, method="circle", order="hclust")
Pela matriz de correlação é perceptível como algumas variáveis se correlacionam mais com o restante do dataset do que as outras, são elas: density, totalsufurdioxide, freesufurdioxide e alcohol.
As características que possuem similaridade alta no nível da correlação podem trazer informações redundantes e aumentar a instabilidade dos modelos, por isso, usaremos a análise de componentes principais para combinar essas variáveis para formar componentes ortogonais (não relacionadas com os componentes anteriores).
# Removendo a variavel quality
white_dsetX <- wine_white_dset[,-12]
white_pcomp <- prcomp(white_dsetX, center = TRUE,scale = TRUE)
summary(white_pcomp)
## Importance of components:
## PC1 PC2 PC3 PC4 PC5 PC6
## Standard deviation 1.7999 1.2551 1.1040 1.01022 0.98743 0.96603
## Proportion of Variance 0.2945 0.1432 0.1108 0.09278 0.08864 0.08484
## Cumulative Proportion 0.2945 0.4377 0.5485 0.64129 0.72993 0.81477
## PC7 PC8 PC9 PC10 PC11
## Standard deviation 0.84999 0.77459 0.64068 0.53811 0.12262
## Proportion of Variance 0.06568 0.05454 0.03732 0.02632 0.00137
## Cumulative Proportion 0.88045 0.93499 0.97231 0.99863 1.00000
plot(white_pcomp, type = 'l', main = "Componentes Principais")
# quality_column <- wine_white_dset[,12]
#
# for (col in colnames(white_dsetX)) {
# upper_fence <- quantile(white_dsetX[,col], 0.75, names = FALSE) +(1.5 * IQR(white_dsetX[,col]))
# lower_fence <- quantile(white_dsetX[,col],0.25, names = FALSE) - (1.5 * IQR(white_dsetX[,col]))
#
# idx <- which(white_dsetX[,col] < lower_fence | white_dsetX[,col] > upper_fence)
# for (x in idx) {
# white_dsetX[x,col] <- NA
# }
# }
#
# wine_white_dset <- mutate(white_dsetX,quality = quality_column)
O objetivo desta sessão é criar um modelo de regressão linear para estimar o índice de qualidade dos vinhos. Após dividir o dataset entre dataset de treino e teste, traçamos uma regressão linear com todas variáveis para estimar a qualidade do vinho:
set.seed(2019)
prt <- 2/3
treino <- sample(1:NROW(wine_white_dset), as.integer(prt*NROW(wine_white_dset)))
trainData <- wine_white_dset[treino,]
testData <- wine_white_dset[-treino,]
modeloBackWard <- lm(quality ~., data = trainData)
summary(modeloBackWard)
##
## Call:
## lm(formula = quality ~ ., data = trainData)
##
## Residuals:
## Min 1Q Median 3Q Max
## -3.9599 -0.4963 -0.0370 0.4594 3.1007
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 2.392e+02 2.746e+01 8.710 < 2e-16 ***
## fixedacidity 1.296e-01 2.788e-02 4.650 3.46e-06 ***
## volatileacidity -1.903e+00 1.427e-01 -13.337 < 2e-16 ***
## citricacid -1.240e-02 1.160e-01 -0.107 0.9149
## residualsugar 1.119e-01 1.042e-02 10.746 < 2e-16 ***
## chlorides -7.694e-02 6.551e-01 -0.117 0.9065
## freesulfurdioxide 4.099e-03 1.023e-03 4.009 6.24e-05 ***
## totalsulfurdioxide -1.701e-04 4.629e-04 -0.367 0.7133
## density -2.399e+02 2.782e+01 -8.621 < 2e-16 ***
## pH 9.112e-01 1.354e-01 6.729 2.01e-11 ***
## sulphates 6.834e-01 1.235e-01 5.532 3.41e-08 ***
## alcohol 7.133e-02 3.477e-02 2.052 0.0403 *
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.7413 on 3253 degrees of freedom
## Multiple R-squared: 0.2822, Adjusted R-squared: 0.2798
## F-statistic: 116.3 on 11 and 3253 DF, p-value: < 2.2e-16
Do modeloBackWard acima:
Variáveis dependentes: quality
Variáveis independentes: todas as outras
Os valores com asterisco são aqueles mais correlacionados com a variável quality. A coluna Pr(>|t|) mostra o Teste T de Student, portanto, valores abaixo do p value igual a 0,05 são relevantes para a análise de acordo com a taxa escolhida (p = 5%). Como a maioria das variáveis possuem asterisco, iremos utilizar duas abordagens pra encontrar o melhor modelo usando menos variáveis para evitar informações redundantes:
Biblioteca Leaps e Car
library(car)
library(leaps)
leaps <- regsubsets(quality~., data = trainData, nbest = 2, method = "exhaustive")
subsets(leaps, statistic = "bic", legend = FALSE, ylim=c(-1040,-940), xlim=c(2,6.3))
## Abbreviation
## fixedacidity fx
## volatileacidity v
## citricacid ct
## residualsugar r
## chlorides ch
## freesulfurdioxide fr
## totalsulfurdioxide t
## density d
## pH p
## sulphates s
## alcohol a
Usando somente 4 variáveis pra construir o modelo de regressão linear da qualidade, o gráfico acima mostra que a melhor escolha é a combinação volatileacidity+residualsugar+density+alcohol por ter o menor valor do critério de informação bayesiano (BIC). A ideia de pegar 4 variáveis é pra selecionar um número reduzido de itens pra construir o modelo, desta forma no mundo real nós conseguiríamos fazer um controle de qualidade usando testes químicos com menos substâncias, o que depreciaria o custo do processo.
modelo4 <- lm(quality ~volatileacidity+residualsugar+density+alcohol,
data = trainData)
summary(modelo4)
##
## Call:
## lm(formula = quality ~ volatileacidity + residualsugar + density +
## alcohol, data = trainData)
##
## Residuals:
## Min 1Q Median 3Q Max
## -3.3361 -0.5047 -0.0266 0.4659 3.1651
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 1.036e+02 1.576e+01 6.575 5.64e-11 ***
## volatileacidity -2.132e+00 1.370e-01 -15.565 < 2e-16 ***
## residualsugar 6.218e-02 6.168e-03 10.081 < 2e-16 ***
## density -1.006e+02 1.568e+01 -6.417 1.60e-10 ***
## alcohol 2.347e-01 2.323e-02 10.105 < 2e-16 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.752 on 3260 degrees of freedom
## Multiple R-squared: 0.2597, Adjusted R-squared: 0.2587
## F-statistic: 285.8 on 4 and 3260 DF, p-value: < 2.2e-16
Do modelo4 acima:
Variáveis dependentes: quality
Variáveis independentes: volatileacidity+residualsugar+density+alcohol
O valor R² ainda é muito baixo para o modelo, 25,97%. Esse valor significa que o modelo explica somente a variação desta porcentagem dos dados do modelo.
E com 6 variáveis?
modelo6 <- lm(quality ~fixedacidity+volatileacidity+residualsugar+density+pH+sulphates,
data = trainData)
summary(modelo6)
##
## Call:
## lm(formula = quality ~ fixedacidity + volatileacidity + residualsugar +
## density + pH + sulphates, data = trainData)
##
## Residuals:
## Min 1Q Median 3Q Max
## -3.5143 -0.4871 -0.0502 0.4701 3.0612
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 2.868e+02 9.022e+00 31.787 < 2e-16 ***
## fixedacidity 1.582e-01 1.929e-02 8.202 3.38e-16 ***
## volatileacidity -1.935e+00 1.349e-01 -14.340 < 2e-16 ***
## residualsugar 1.316e-01 5.336e-03 24.664 < 2e-16 ***
## density -2.878e+02 9.263e+00 -31.076 < 2e-16 ***
## pH 1.081e+00 1.035e-01 10.448 < 2e-16 ***
## sulphates 7.873e-01 1.177e-01 6.688 2.65e-11 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.7437 on 3258 degrees of freedom
## Multiple R-squared: 0.2765, Adjusted R-squared: 0.2752
## F-statistic: 207.5 on 6 and 3258 DF, p-value: < 2.2e-16
Do modelo6 acima:
Variáveis dependentes: quality
Variáveis independentes: volatileacidity+residualsugar+density+alcohol
O valor R² agora é de 27,65%, ou seja, o ganho na qualidade do modelo ao adicionar mais duas variáveis foi pouco significativo, portanto, estes modelos de regressão linear não são adequados pra predição da qualidade.
Tentaremos agora usar regressão linear com os componentes principais para aumentar R².
# Removendo a variavel quality e criando variavel com componentes principais para teste dset
white_dsetX <- trainData[,-12]
white_pcomp <- prcomp(white_dsetX, center = TRUE,scale = TRUE)
trainData2 <- trainData[,12]
# white_pcomp foi calculado na sessao de componentes principais
trainData2 <- cbind(trainData2,data.frame(white_pcomp$x))
colnames(trainData2)[1] <- "quality"
modeloCP <- lm(quality ~., data = trainData2)
summary(modeloCP)
##
## Call:
## lm(formula = quality ~ ., data = trainData2)
##
## Residuals:
## Min 1Q Median 3Q Max
## -3.9599 -0.4963 -0.0370 0.4594 3.1007
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 5.891271 0.012973 454.108 < 2e-16 ***
## PC1 0.142066 0.007224 19.666 < 2e-16 ***
## PC2 0.055510 0.010324 5.377 8.11e-08 ***
## PC3 0.153743 0.011660 13.185 < 2e-16 ***
## PC4 0.180252 0.012903 13.970 < 2e-16 ***
## PC5 0.024707 0.013083 1.889 0.05904 .
## PC6 -0.038497 0.013509 -2.850 0.00440 **
## PC7 -0.008152 0.015315 -0.532 0.59457
## PC8 0.168294 0.016675 10.093 < 2e-16 ***
## PC9 -0.358493 0.020237 -17.715 < 2e-16 ***
## PC10 -0.074724 0.024135 -3.096 0.00198 **
## PC11 -0.803041 0.106341 -7.552 5.55e-14 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.7413 on 3253 degrees of freedom
## Multiple R-squared: 0.2822, Adjusted R-squared: 0.2798
## F-statistic: 116.3 on 11 and 3253 DF, p-value: < 2.2e-16
Excluindo o PC5 e o PC7 do modelo por apresentarem um elevado Pr(>|t|):
modeloCP2 <- lm(quality ~PC1+PC2+PC3+PC4+PC6+PC8+PC9+PC10+PC11, data = trainData2)
summary(modeloCP2)
##
## Call:
## lm(formula = quality ~ PC1 + PC2 + PC3 + PC4 + PC6 + PC8 + PC9 +
## PC10 + PC11, data = trainData2)
##
## Residuals:
## Min 1Q Median 3Q Max
## -4.1164 -0.5023 -0.0401 0.4541 3.1020
##
## Coefficients:
## Estimate Std. Error t value Pr(>|t|)
## (Intercept) 5.891271 0.012977 453.979 < 2e-16 ***
## PC1 0.142066 0.007226 19.661 < 2e-16 ***
## PC2 0.055510 0.010327 5.375 8.18e-08 ***
## PC3 0.153743 0.011663 13.182 < 2e-16 ***
## PC4 0.180252 0.012906 13.966 < 2e-16 ***
## PC6 -0.038497 0.013512 -2.849 0.00441 **
## PC8 0.168294 0.016680 10.090 < 2e-16 ***
## PC9 -0.358493 0.020242 -17.710 < 2e-16 ***
## PC10 -0.074724 0.024142 -3.095 0.00198 **
## PC11 -0.803041 0.106372 -7.549 5.64e-14 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## Residual standard error: 0.7415 on 3255 degrees of freedom
## Multiple R-squared: 0.2814, Adjusted R-squared: 0.2794
## F-statistic: 141.6 on 9 and 3255 DF, p-value: < 2.2e-16
Do modeloCP2 acima:
Variáveis dependentes: quality
Variáveis independentes: PC1+PC2+PC3+PC4+PC6+PC8+PC9+PC10+PC11
errorRate4 <- sigma(modelo4)/mean(testData$quality)
paste0("Modelo4: ",round(errorRate4*100,digits = 2),"% de taxa de erro")
## [1] "Modelo4: 12.85% de taxa de erro"
errorRate6 <- sigma(modelo6)/mean(testData$quality)
paste0("Modelo6: ",round(errorRate6*100, digits = 2),"% de taxa de erro")
## [1] "Modelo6: 12.71% de taxa de erro"
errorRateCP2 <- sigma(modeloCP2)/mean(testData$quality)
paste0("ModeloCP2: ", round(errorRateCP2*100, digits = 2),"% de taxa de erro")
## [1] "ModeloCP2: 12.67% de taxa de erro"
Os modelos modelo4, modelo6 e modeloCP2 apresentam um R² e taxa de erro muito parecidos, demonstrando que a eficácia deles pra explicar a variância dos dados é muito próxima. Levando isso em conta, o modelo indicado é o modelo4 por trabalhar com menos variáveis evitando assim o uso de informações redundantes.
Variáveis dependentes: ModeloPC1 <- (quality)
ModeloPC3 <- (quality)
Variáveis independentes:
ModeloPC1 <- (alcohol+residualsugar+density)
ModeloPC3 <- (volatileacidity+fixedacidity)
Modelo PC1
vinhos_brancos <- wine_dset %>% filter(Vinho == 'WHITE')
vinhos_brancos <- vinhos_brancos[2:13]
attach(vinhos_brancos)
modelopc1 <- rpart (quality ~ alcohol+residualsugar+density, data=vinhos_brancos,
cp = 0.001,minsplit = 2,maxdepth=5)
# summary(modelopc1)
rpart.plot(modelopc1, type=2, extra="auto", under=FALSE, clip.right.labs=TRUE,
fallen.leaves=TRUE, digits=2, varlen=-3, faclen=15,
cex=NULL, tweak=1.7,
compress=TRUE,box.palette="auto",
snip=FALSE)
Val_pred_tree <- predict(modelopc1,interval = "prediction", level = 0.95)
str(Val_pred_tree)
## Named num [1:4898] 5.89 6.52 5.35 5.53 5.97 ...
## - attr(*, "names")= chr [1:4898] "1" "2" "3" "4" ...
mse_tree <- mean((quality - Val_pred_tree)^2)
sqrt(mse_tree)
## [1] 0.7608975
Podemos observar no ModeloPC1:
Porcentagem de importância das variáveis escolhidas:
alcohol <- 53%
density <- 34%
residualsugar <-13%
Número de Node criados 63
Número de observações 4898
Maiores médias (levando em conta a taxa de cada variável):
mean = 6.555556 | residualsugar < 1.75 | density < 0.990005 | alcohol < 13.65
mean = 6.763948 |
residualsugar < 2.15 |
density < 0.98987 |
alcohol < 12.89667
mean = 6.875 |
alcohol < 13.55 |
residualsugar < 2.25 |
density < 0.98953
Percebemos que os vinhos com valor de residualsugar abaixo de 2.5 tem um potencial de qualidade maior, como também os vinhos com valor de density abaixo de 1 e alcohol abaixo de 14 também contribuem para um vinho de maior qualidade. Com tudo um pode equilibrar o outro na dosagem certa.
Modelo PC3
modelopc3 <- rpart (quality ~ volatileacidity+fixedacidity, data=vinhos_brancos,
cp = 0.001,minsplit = 2,maxdepth=5)
# summary(modelopc3)
rpart.plot(modelopc3, type=2, extra="auto", under=FALSE, clip.right.labs=TRUE,
fallen.leaves=TRUE, digits=2, varlen=-3, faclen=15,
cex=NULL, tweak=1.7,
compress=TRUE,box.palette="auto",
snip=FALSE)
Val_pred_tree2 <- predict(modelopc3,interval = "prediction", level = 0.95)
str(Val_pred_tree)
## Named num [1:4898] 5.89 6.52 5.35 5.53 5.97 ...
## - attr(*, "names")= chr [1:4898] "1" "2" "3" "4" ...
mse_tree <- mean((quality - Val_pred_tree2)^2)
sqrt(mse_tree)
## [1] 0.8422522
Podemos observar no ModeloPC3:
Porcentagem de importância das variáveis escolhidas:
volatileacidity <- 59%
fixedacidity <- 41%
Número de Node criados 63
Número de observações 4898
Maiores médias (levando em conta a taxa de cada variável):
mean = 6.135546 |
volatileacidity < 0.195 |
fixedacidity < 6.175
mean = 6.213192 |
fixedacidity < 7.45 |
volatileacidity < 0.1325
mean = 6.294643 |
volatileacidity < 0.525 |
fixedacidity < 5.35
Percebemos que os vinhos com valor de volatileacidity abaixo de 0.1300 tem um potencial de qualidade maior, como também os vinhos com valor de fixedacidity abaixo de 7.45 também contribuem para um vinho de maior qualidade. Com tudo um pode equilibrar o outro na dosagem certa.
Com base nas duas técnicas conseguimos enxergar alguns componentes que elevaram o padrão de qualidade do vinho, com alguns diferenciais para cada uma. A técnica de regressão linear parece ser mais segura em mostrar que os componentes citricacid, volatileaciditye e fixedacidity são os causadores de uma maior qualidade do vinho. Já a técnica de árvore de regressão mostra de uma forma mais transparente e fácil de enxergar que a qualidade do vinho é mais elevada por causa dos componentes residualsugar, density e alcohol. Ou seja o modelo pc3 se mostrou mais adequado na regressão linear, e o modelo pc1 se mostrou mais adequado na árvore de regressão.
No contexto geral o modelo PC1 mostrou os melhores resultados, usando a Árvore de Regressão.
Para aplicarmor uma regressão logistica decidimos categorizar a qualidade dos vinhos em dois tipos, Vinhos Bons com uma qualidade igual ou superior a 7, ou vinhos ruins com uma pontuação de qualidade inferior a 7.
summary(wine_white_dset$quality)
## Min. 1st Qu. Median Mean 3rd Qu. Max.
## 3.000 5.000 6.000 5.878 6.000 9.000
A razão de escolhermos 7 como nota divisora de vinhos bons e ruins é porquie a média da qualidade dos vinhos é de aproximandamente 6 e menos de um quarto dos vinhos brancos estão com nota 7 ou acima. Decidimos por categorizar como vinhos bons aqules que tem uma avaliação de qualidade acima da média. Assim podemos rodar uma regressão logistica com as variaveis usadas anteriormente para analisarmos se o modelo gerado é aceitável.
wine_white_dset <- wine_dset %>%
filter(Vinho == 'WHITE')
Vinhos2Cat <- subset(wine_white_dset, select = -c(id_vinho))
attach(Vinhos2Cat)
Vinhos2Cat$quality_cat[quality >= 7] <- 'Bom'
Vinhos2Cat$quality_cat[quality < 7] <- 'Ruim'
Vinhos2Cat <- subset(Vinhos2Cat, select = -c(quality))
set.seed(2019)
prt <- 2/3
Vinhos2Cat$quality_cat <- as.factor(Vinhos2Cat$quality_cat)
treino <- sample(1:NROW(Vinhos2Cat), as.integer(prt*NROW(Vinhos2Cat)))
trainData <- Vinhos2Cat[treino,]
testData <- Vinhos2Cat[-treino,]
modelo_log<-glm(quality_cat ~ alcohol+residualsugar+density, trainData, family=binomial(link=logit))
summary(modelo_log)
##
## Call:
## glm(formula = quality_cat ~ alcohol + residualsugar + density,
## family = binomial(link = logit), data = trainData)
##
## Deviance Residuals:
## Min 1Q Median 3Q Max
## -2.5849 0.3396 0.4503 0.6434 1.7147
##
## Coefficients:
## Estimate Std. Error z value Pr(>|z|)
## (Intercept) -229.84344 60.27779 -3.813 0.000137 ***
## alcohol -0.52618 0.08602 -6.117 9.52e-10 ***
## residualsugar -0.11847 0.02369 -5.000 5.74e-07 ***
## density 239.11345 59.98898 3.986 6.72e-05 ***
## ---
## Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
##
## (Dispersion parameter for binomial family taken to be 1)
##
## Null deviance: 3393.8 on 3264 degrees of freedom
## Residual deviance: 2899.4 on 3261 degrees of freedom
## AIC: 2907.4
##
## Number of Fisher Scoring iterations: 4
O p-value para todas as variáveis está ótimo, podemos usar esse modelo na nossa base de teste para calcularmos a acurácia.
attach(testData)
Predito_teste<-predict(modelo_log, testData)
fx_predito <- cut(Predito_teste, breaks=c(-1,2.5,4), right=F)
MC <- table( quality_cat, fx_predito , deparse.level = 2) #
show(MC)
## fx_predito
## quality_cat [-1,2.5) [2.5,4)
## Bom 326 28
## Ruim 1022 249
ACC = sum(diag(MC))/sum(MC)
show(ACC)
## [1] 0.3538462
Aqui podemos ver a matriz de confusão, onde há 326 falsos positivos e 249 falsos negativos, com um total de 35% de acurácia. Esse modelo é melhor identificando os vinhos ruins, do que os bons, mas mesmo assim não consegue um resultado muito satisfatório.
Vamos tentar com a árvore de decisão, usando as mesmas variáveis:
modelo_tree <- rpart (quality_cat ~ alcohol+residualsugar+density, data=trainData, cp = 0.006,minsplit = 150,maxdepth=10)
rpart.plot(modelo_tree, type=4, extra=104, under=FALSE, clip.right.labs=TRUE,
fallen.leaves=FALSE, digits=2, varlen=-3, faclen=20,
cex=0.4, tweak=1.7,
compress=TRUE,
snip=FALSE)
Parece promissor, ela classificou a grande maioria dos vinhos como ruins, vamos ver a acurácia dessa árvore:
pred_class <- predict(modelo_tree ,testData , type = "class")
Campanha.matriz.de.confusao<-table(testData$quality_cat, pred_class)
Campanha.matriz.de.confusao
## pred_class
## Bom Ruim
## Bom 110 250
## Ruim 63 1210
diagonal <- diag(Campanha.matriz.de.confusao)
perc.erro <- 1 - sum(diagonal)/sum(Campanha.matriz.de.confusao)
perc.erro
## [1] 0.1916718
A árvore de decisão com essas variáveis obtem apenas 19% de acurácia, muito abaixo da regressão logistica.
Uma técnica que pode ser adequada para classificação dos vinhos é Gaussian Naive Bayes essa técnica existe desde os anos 1950. Pertence a uma família de algoritmos chamados classificadores probabilísticos ou probabilidade condicional, onde também assume independência entre os recursos,isso nos permite prever uma classe/categoria, com base em determinado conjunto de recursos, usando probabilidade.O Naive Bayes pode ser aplicado efetivamente para alguns problemas de classificação, apesar de sua simplicidade, o classificador faz a definição de categorias surpreendentemente bem e é freqüentemente usado devido ao fato de superar métodos de classificação mais sofisticados.
Quando usadas sozinhas, as árvores de decisão são propensas a overfitting. No entanto, random forest (Várias árvores de decisão) ajudam corrigindo o possível overfitting que poderia ocorrer. A técnica Random forest utiliza uma multiplicidade de árvores de decisão diferentes com previsões diferentes, uma random forest combina os resultados dessas árvores individuais para fornecer os resultados finais.A random forest aplica um algoritmo conjunto chamado ensacamento às árvores de decisão, que ajuda a reduzir a variação e o ajuste excessivo.
O Funcionamento de uma GAN se baseia em duas redes neurais uma Geradora e outra com o Discriminadora, o papel da rede geradora é falsificar dados e da rede Discriminadora é identificar quais dados foram falsificados. Ambas estão aprendendo e melhorando. A rede gerador está constantemente aprendendo a criar falsificações melhores, e a rede Discriminadora está constantemente melhorando em detectá-los.
É uma técnica de análise de cluster que permite agrupar os dados em grupos chamados clusters. Como os rótulos não são fornecidos para cada dado de treinamento, os clusters são determinados pela similaridade dos dados um do outro, essa técnica pode ser uma boa opção para a classificação dos vinhos já que possuímos um grande número de dados